Dari segi politik, beliau merupakan bekas Setiausaha Biro Penerangan UMNO Negeri Kedah dan pemah menjadi Ketua Penerangan UMNO Bahagian Pokok Sena. Sekarang, beliau adalah ahli UMNO cawangan Kampung Padang Kerasak, Padang Terap dan Naib Ketua UMNO Bahagian Padang Terap. Dato'Mahdzir bin Khalid juga merupakan Pengerusi Yayasan Basmi Kemiskinan Darul Aman.[3]

Dalam Pilihan Raya Umum Malaysia 2004, Dato' Mahdzir bin Khalid melepaskan jawatan sebagai Setiausaha Politik YAB Dato' Seri Abdullah Haji Ahmad Badawi, Perdana Menteri Malaysia apabila dipilih bertanding mewakili Barisan Nasional bagi kerusi DUN Pedu. Selepas memenangi kerusi DUN berkenaan, beliau dilantik sebagai Ahli Majlis Mesyuarat Kerajaan Negeri Kedah Darul Aman (EXCO) mulai 28 Mac 2004 dan diamanahkan Portfolio Pertanian, Pembangunan Luar Bandar dan Pembangunan Koperasi Negeri.[4]